Đầu mùa xuân năm 1071, trong lúc tiến hành đàm phán với Alp Arslan qua ngã Manzikert,[21] Romanos vội cầm đầu một đạo quân lớn với mục đích khôi phục các trọng trấn.[22] Quân đội Đông La Mã đã sớm gặp phải vấn đề nghiêm trọng về kỷ luật, binh lính thường xuyên cướp bóc khu vực xung quanh nơi đóng quân hàng đêm của họ. Khi Romanos cố thi hành một số kỷ luật nghiêm ngặt, một trung đoàn toàn lính đánh thuê người Đức liền nổi loạn ngay lập tức, mà hoàng đế chỉ nắm được quyền kiểm soát với nỗi vất vả nhọc nhằn.[23]

Tin rằng Alp Arslan chưa đến được Manzikert, hoàng đế đã quyết định chia quân mình thành hai cánh. Một cánh do ông cử đến tấn công Akhlat mà lúc đó đang là cứ điểm của người Thổ.[24] Cánh còn lại do đích thân Romanos thống lĩnh đại quân tiền hô hậu ủng tràn đến Manzikert chẳng mấy chốc sẽ bị bắt trở lại.[24] Ngay lúc ấy đội cấm vệ của ông đụng phải một đạo quân Seljuk đang trên đường gấp rút đi đến Manzikert. Romanos bèn hạ lệnh cho lực lượng đang tấn công Akhlat tái nhập vào đại quân của ông, nhưng cánh quân này bất ngờ bắt gặp phải một đạo quân lớn của người Thổ, buộc họ phải rút trở về Lưỡng Hà.[24] Trước thế mạnh này, toàn quân của Romanos ngày càng suy yếu hơn nữa khi nhóm lính đánh thuê Uzes bỏ chạy sang hàng ngũ quân Thổ.[25]

Arslan chẳng muốn giao tranh với quân Đông La Mã, vì vậy ông bèn đề xuất một hòa ước với các điều kiện thuận lợi cho Romanos.[25] Hoàng đế vì nóng lòng muốn giành lấy chiến thắng quân sự quyết định nên từ chối thẳng thừng, và cả hai đạo quân sửa soạn cho một trận đánh đẫm máu, diễn ra vào ngày 26 tháng 8 năm 1071.[26] Cuộc chiến kéo dài cả ngày mà chẳng bên nào giành lấy được bất kỳ ưu thế dứt khoát nào, mãi tới khi hoàng đế ra lệnh cho một phần cánh giữa quân mình rút về trại. Thế nhưng mệnh lệnh này bị cánh phải hiểu lầm,[27] và Andronikos Doukas đang chỉ huy độ quân dự bị và là con trai của Caesar Ioannes Doukas, đã lợi dụng sự nhầm lẫn để phản bội Romanos. Tuyên bố rằng Romanos đã chết, ông ta liền dẫn 30.000 quân rời khỏi trận địa thay vì yểm trợ cho hoàng đế rút quân.[28] Người Thổ bây giờ bắt đầu siết chặt lấy vòng vây quân Đông La Mã.

Khi Romanos phát hiện ra vụ việc, ông cố gắng khôi phục lại tình trạng này bằng cách giữ vững đội hình ngang ngạnh. Hoàng đế chiến đấu hết sức dũng cảm sau khi chiến mã yêu quý bị giết dưới chân mình, nhưng ông cũng bị trúng ngay vết thương ở tay khó lòng cầm kiếm nổi và chẳng mấy chốc bị quân Thổ nhào tới bắt làm tù binh.[29] Theo một số sử gia Đông La Mã, gồm cả Ioannes Skylitzes, Arslan lúc đầu khó lòng tin nổi gã chiến binh đầy bụi bặm và áo quần rách rưới đứng ngay trước mặt mình chính là Hoàng đế La Mã.[30] Kế đó ông bước xuống từ chỗ ngồi và đặt chân lên cổ Romanos.[31] Sau màn lăng nhục sỉ vả xong xuôi, Arslan nâng Romanos đứng dậy và ra lệnh phải đối đãi với ông ấy như một vị vua. Kể từ đó vị Hồi vương này cư xử với Romanos rất mực tử tế, chẳng bao giờ nặng lời với ông trong suốt tám ngày trời Hoàng đế ở trong trại của mình.[31] Rồi sau đó ông ta cho người thả Hoàng đế về nhằm đổi lấy hòa ước và lời hứa về một khoản tiền chuộc khổng lồ. Lần đầu Alp Arslan đòi Romanos IV một khoản tiền chuộc 10.000.000 nomismata, nhưng về sau ông giảm bớt xuống còn 1.500.000 nomismata, kèm theo hơn 360.000 nomismata hàng năm.[19]